Valores e princípios de produto responsável
Valores, propósito e princípios de desenvolvimento de software
Documento de orientação ética de alto nível
Princípio central. Não desenvolvemos aplicativos contra ninguém. Desenvolvemos ferramentas que apoiam a autorreflexão e a agência da própria pessoa, com o objetivo de aumentar a segurança, o bem-estar e o engajamento responsável de todas as partes.
1. Propósito do documento
Este documento define o propósito, a base de valores e os princípios éticos de alto nível do desenvolvimento de software da Safety in Relationships Oy Ltd. Ele orienta quais tipos de produtos e funcionalidades construímos, quais limites observamos e com base em quais critérios decidimos não fazer determinadas coisas.
A diretriz destina-se a apoiar a tomada de decisão na prática. Sua função não é resolver questões jurídicas, clínicas ou de segurança específicas, mas oferecer uma base para avaliarmos a direção dos nossos produtos, seus impactos e possíveis riscos de uso indevido.
2. Propósito do nosso trabalho
O propósito da Safety in Relationships Oy Ltd é aumentar a capacidade das pessoas de construírem relacionamentos mais seguros, menos violentos e mais felizes. Apoiamos as pessoas a reconhecerem suas próprias emoções, necessidades, limites, padrões de comportamento e escolhas, sem colocarmos outras pessoas, em nome do usuário, na posição de culpadas, inimigas ou diagnosticadas.
Nosso objetivo é fortalecer a agência da própria pessoa. Na prática, isso significa ferramentas que ajudam o usuário a fazer uma pausa, organizar a sua situação, tomar decisões mais ponderadas e buscar ajuda apropriada quando necessário.
Premissa fundamental. Segurança e bem-estar não nascem do confronto. Nascem da não violência, do autoconhecimento, da responsabilidade, de limites claros e do encontro respeitoso.
3. Ponto de partida ético
Nossa atuação baseia-se na ideia de que a segurança nos relacionamentos não deve ser construída sobre o confronto entre grupos, sobre uma imagem de inimigo baseada em gênero, sobre rotulação ou sobre vingança. Violência, controle, intimidação, humilhação e violação de limites são questões graves. Mesmo assim, não devem ser tratadas de uma forma que produza mais polarização, generalizações equivocadas ou novos danos.
Por essa razão, a Safety in Relationships Oy Ltd se restringe, no momento, a ferramentas de autorreflexão e apoio individual. Não posicionamos nossos produtos como terapia, como serviço público, como tribunal, como ferramenta de processo penal ou como instrumento com o qual o usuário possa construir um caso contra outra pessoa.
Esta delimitação é tanto ética quanto prática. Uma promessa de serviço terapêutico, clínico ou jurídico poderia trazer questões de regulamentação, qualificações, responsabilidades e segurança do usuário que não devem ser contornadas por meio de marketing ou de desenvolvimento de produto. Da mesma forma, uma linha de produtos baseada em uma imagem de inimigo poderia aumentar a sensação de justificação, raiva ou conflito por parte do usuário, em vez de aumentar a segurança e o bem-estar.
3.1 Cooperação com organizações e aplicativos de documentação
A delimitação descrita acima aplica-se principalmente às ferramentas de autorreflexão e apoio publicadas em nome da Safety in Relationships Oy Ltd e voltadas a pessoas individuais. Em conjunto com organizações, podem ser desenvolvidos separadamente também aplicativos cujo propósito principal seja a documentação, a organização de observações, a harmonização de processos, o planejamento de medidas subsequentes ou a garantia de qualidade do trabalho.
Tais soluções são desenvolvidas e implementadas em nome da organização parceira e dentro do quadro de responsabilidades por ela definido. O propósito de uso, o modo de funcionamento, a comunicação ao usuário, as bases de proteção de dados, os direitos de acesso, as orientações, a tomada de decisão e as avaliações relativas a obrigações legais ou profissionais são definidos em conjunto com a organização. O papel da Safety in Relationships Oy Ltd é o de especialista em tecnologia, usabilidade, gestão da informação e design ético, e não o de terapeuta, advogada, autoridade pública, pesquisadora ou tomadora de decisões em nome da organização.
Nas ferramentas de documentação desenvolvidas para organizações, mantém-se a mesma delimitação ética básica: as soluções não são produzidas contra ninguém. A função do aplicativo não é fazer inferências automatizadas sobre culpa, verdade ou periculosidade, mas apoiar uma documentação precisa, rastreável, atenta à privacidade e que aumente a segurança. A ferramenta deve ajudar a distinguir observações, interpretações, riscos, necessidades, ações realizadas e possíveis medidas subsequentes umas das outras.
4. Valores
Dignidade humana e igualdade
Toda pessoa tem o direito de ser acolhida com dignidade. Não construímos produtos cujo ponto de partida seja a rotulação de algum gênero, grupo, papel ou situação de vida.
Segurança e não violência
Defendemos a não violência nos níveis físico, psicológico, sexual, econômico e digital. Segurança significa tanto a proteção contra danos quanto a capacidade de agir sem medo, pressão ou controle.
Compaixão e limites
Compaixão não significa ausência de limites nem retirada de responsabilidade. Limites não significam falta de humanidade. Apoiamos os dois: a capacidade de ver a pessoa como um todo e a capacidade de proteger o próprio bem-estar.
Responsabilidade e agência
Nossos produtos devem fortalecer a agência responsável do usuário. Não prometemos resolver um relacionamento em nome do usuário, nem o orientamos a terceirizar a sua própria reflexão para um aplicativo.
Objetividade e senso crítico em relação às fontes
Buscamos uma abordagem neutra, que respeite os fatos e reconheça as incertezas. Evitamos conclusões definitivas sobre situações cujo conjunto não conhecemos.
Privacidade e confidencialidade
As informações relativas a relacionamentos são sensíveis. Por isso, a minimização de dados, o controle por parte do usuário, a transparência e a prevenção do uso indevido são exigências básicas do desenvolvimento de produto.
5. A lógica por trás de como nosso software é construído
Nosso software é construído primeiramente para apoiar o pensamento da própria pessoa, a regulação emocional, o reconhecimento de limites e a tomada de decisão ponderada. O produto não é a outra parte de um relacionamento, nem terapeuta, juiz, advogado, profissional de crise ou autoridade pública. Ele é uma ferramenta de organização do pensamento.
Um bom produto ajuda o usuário a desacelerar a reação, a colocar observações em palavras, a distinguir fatos de interpretações, a identificar as próprias necessidades e a refletir sobre próximos passos seguros. O produto deve apoiar o usuário de uma forma que aumente a clareza, em vez de acelerar o conflito.
| O que construímos | O que não construímos |
|---|---|
| Ferramentas de autorreflexão, diário, nomeação de emoções e reconhecimento de limites. | Ferramentas cujo propósito seja rotular, envergonhar, controlar, pontuar ou diagnosticar outra pessoa. |
| Perguntas neutras que ajudam o usuário a refletir sobre a sua situação e suas alternativas. | Conteúdos que digam ao usuário, como verdade certa, o que outra pessoa pensa, pretende ou é. |
| Caminhos seguros de encaminhamento para ajuda apropriada, serviços de crise ou profissionais quando a situação assim exigir. | Promessas de serviço que substituam decisões terapêuticas, clínicas, jurídicas ou de autoridade pública sem avaliação separada e sem o cumprimento dos requisitos. |
| Funcionalidades que fortalecem a autonomia do usuário e nas quais o usuário mantém o poder de decisão. | Funcionalidades adequadas para manipulação, vigilância, vingança, difamação ou escalada de conflito. |
| Linguagem que reconhece a gravidade da violência e da violação de limites sem construir uma imagem de inimigo. | Pressupostos baseados em gênero, origem ou papel sobre quem é vítima, autor, culpado ou perigoso. |
6. Limites do desenvolvimento de produto
Os limites a seguir orientam o desenvolvimento de produto. Sua finalidade é reduzir o risco de que o aplicativo, sem intenção, reforce interpretações prejudiciais, dê ao usuário uma certeza infundada ou venha a ser utilizado contra outra pessoa.
Nada de aplicativos contra alguém. Os produtos não são projetados como instrumentos de ataque, vingança, humilhação pública, controle, difamação ou construção de provas.
Nada de interpretações certas sobre outra pessoa. O aplicativo não pode inferir nem afirmar que outra pessoa seja, por exemplo, violenta, narcisista, manipuladora, perigosa ou má com base no relato de um único usuário.
Nada de posicionamento como serviço de terapia. O produto não diagnostica, não trata, não realiza avaliações clínicas e não substitui serviços de saúde mental, de saúde ou de crise. Caso essas funcionalidades venham a ser construídas no futuro, serão avaliadas separadamente sob a perspectiva de qualificações, responsabilidades, regulamentação e segurança.
Nada de aconselhamento jurídico ou de papel de autoridade pública. O produto não fornece conclusões jurídicas, não avalia os elementos de um delito e não substitui serviços de autoridade pública, advocacia ou assistência jurídica.
Nada de imagem de inimigo baseada em gênero. As experiências de violência e de insegurança são reconhecidas como graves, mas não são enquadradas como característica de um gênero ou grupo de pessoas.
Nada de construção de dependência do usuário. O produto não deve tornar o usuário dependente da avaliação do aplicativo. Deve apoiar a própria reflexão do usuário, a conexão com pessoas de confiança e, quando necessário, a busca de ajuda profissional.
7. Princípios de segurança do usuário
Antecipação de danos. Para cada funcionalidade significativa, é avaliado como ela poderia ser usada de forma indevida, como poderia aumentar o conflito e como o dano pode ser reduzido.
Tornar a incerteza visível. O aplicativo não apresenta interpretações baseadas em um relato subjetivo como verdades certas. O usuário é informado sobre o que o produto pode e o que não pode inferir.
Autonomia do usuário. O usuário toma as decisões por si mesmo. O produto pode ajudá-lo a ponderar alternativas, riscos e limites, mas não ordena nem pressiona.
Encaminhamentos seguros. Quando a situação descrita pelo usuário indica perigo imediato, violência grave, comportamento suicida ou outro risco agudo, o produto deve orientá-lo a buscar ajuda imediata em fontes apropriadas.
Minimização de dados. Coletamos apenas as informações justificadas pelo propósito do produto. No tratamento de dados sensíveis, destacam-se a transparência, o controle do usuário, a segurança da informação e a limitação do prazo de retenção.
Linguagem humana. O conteúdo deve ser tranquilizador, respeitoso e esclarecedor. Não pode atiçar medo, raiva, vergonha nem certezas arrogantes.
8. Princípios de uso de conteúdo e de inteligência artificial
Caso seja utilizada inteligência artificial nos produtos, ela é usada como apoio ao pensamento da própria pessoa, e não como autoridade para avaliar pessoas. As respostas da IA devem reconhecer suas limitações: o modelo não conhece a situação como um todo, não vê todas as partes envolvidas e não pode resolver a verdade em nome do usuário.
- A IA não pode emitir diagnósticos sobre o usuário ou sobre outras pessoas.
- A IA não pode nomear outra parte como culpada, perigosa ou má apenas com base no relato do usuário.
- A IA pode ajudar a distinguir observações, emoções, necessidades, limites, desejos e cursos de ação alternativos.
- A IA deve incentivar o usuário a uma atuação segura, não violenta e respeitosa.
- Em situações de risco agudo, a IA deve direcionar o usuário a fontes apropriadas de ajuda, em vez de tentar resolver a crise na conversa.
- A IA não deve otimizar o engajamento em detrimento do bem-estar do usuário.
9. Definição de sucesso
Um produto bem-sucedido da Safety in Relationships Oy Ltd aumenta a clareza do usuário, sua sensação de segurança, seu autoconhecimento e sua capacidade de agir de acordo com seus próprios valores e limites. Ele não aumenta raiva, medo, dependência, certeza unilateral ou vontade de prejudicar a outra parte.
As métricas de desenvolvimento de produto devem refletir esse objetivo. Tempo de uso, retorno frequente, resposta emocional intensa ou alto engajamento, isoladamente, não são sinais de sucesso. Métricas importantes incluem, por exemplo, a clareza percebida, escolhas de ação mais seguras, melhor reconhecimento de limites, redução da escalada de conflito e o fortalecimento percebido da agência do usuário.
10. Princípios de tomada de decisão e governança
Avaliação ética antes do lançamento. Novas funcionalidades são avaliadas em relação aos valores deste documento, aos riscos de uso indevido e à segurança do usuário.
Justificativa de produto documentada. Para decisões de produto significativas, registramos qual problema está sendo resolvido, para quem, com base em quais pressupostos e quais danos buscamos prevenir.
Mecanismo de feedback e correção. O retorno dos usuários, as observações de danos e os incidentes são tratados de forma sistemática. Quando necessário, as funcionalidades são restritas, modificadas ou removidas.
Avaliação especializada quando um limite é ultrapassado. Se uma funcionalidade se aproximar de terapia, atenção à saúde, aconselhamento jurídico, processo de autoridade pública ou tomada de decisão de alto risco, ela é avaliada separadamente sob a perspectiva da competência apropriada e dos requisitos aplicáveis.
Transparência para o usuário. É comunicado de forma clara ao usuário o que o produto é, o que não é, para que pode ser utilizado e quando o usuário deve buscar outra forma de ajuda.
11. Orientação de aplicação para o desenvolvimento de produto
Para cada nova funcionalidade pode ser usada a checklist a seguir. A funcionalidade não deve ser lançada se as questões essenciais não puderem ser respondidas de forma plausível.
- A funcionalidade aumenta a segurança, o autoconhecimento e a agência responsável do usuário?
- A funcionalidade poderia ser usada para controlar, envergonhar, vigiar ou prejudicar outra pessoa?
- A funcionalidade constrói uma imagem de inimigo, uma generalização baseada em gênero ou uma certeza infundada?
- Está claro para o usuário que o aplicativo não é terapeuta, advogado, autoridade pública ou serviço de crise?
- A linguagem da funcionalidade é tranquilizadora, precisa e não violenta?
- A funcionalidade coleta apenas dados necessários e o usuário tem controle compreensível sobre suas próprias informações?
- Em situação de perigo agudo, a funcionalidade direciona o usuário para fora do aplicativo, em direção a fontes apropriadas de ajuda?
12. Síntese
A missão da Safety in Relationships Oy Ltd é construir tecnologia que apoie relacionamentos mais seguros sem confronto e sem promessas infundadas. Desenvolvemos primeiramente ferramentas de autorreflexão e apoio individual. Não desenvolvemos aplicativos contra ninguém.
Nosso objetivo é aumentar o bem-estar e a segurança de todas as pessoas e partes envolvidas. Buscamos esse objetivo por meio da compaixão, dos limites, da responsabilidade e do encontro respeitoso. Esse princípio orienta tanto o conteúdo dos nossos produtos quanto o que decidimos não fazer.
Princípio final. Construímos ferramentas que ajudam a pessoa a se encontrar consigo mesma e com os outros de forma mais responsável. Não construímos ferramentas que transformem outra pessoa em objeto.
Safety in Relationships Oy Ltd | Valores e princípios de desenvolvimento de produto | Versão 1.0 · Atualizado em 4 de maio de 2026